Ketampanan dan perawakan Brown menyaksikan beliau menjadi model pada kotak bijirin Wheaties dan pada tahun 1927, seterusnya membawa tawaran untuk ujian skrin filem [6] yang menghasilkan kerjaya yang panjang dan berjaya di Hollywood . Pada tahun yang sama, beliau menandatangani kontrak lima tahun dengan Metro–Goldwyn–Mayer . [8] Beliau memainkan minat cinta bintang filem senyap Mary Pickford dalam filem suara pertamanya, Coquette (1929), yang mana Pickford memenangi Oscar.

Beliau telah muncul dalam peranan kecil sehingga 1930 apabila belliau berlakon sebagai bintang dalam filem Barat berjudul Billy the Kid dan diarahkan oleh King Vidor . Filem skrin lebar awal (bersama-sama dengan The Big Trail karya Raoul Walsh yang dibintangi oleh John Wayne, diterbitkan pada tahun yang sama), filem itu turut dibintangi oleh Wallace Beery sebagai Pat Garrett . Pada tahun 1930, Brown bersama Joan Crawford dalam Montana Moon . Brown terus membuat beberapa lagi filem teratas di bawah nama John Mack Brown, termasuk The Secret Six (1931) disamping Wallace Beery, Jean Harlow, dan Clark Gable, serta The Last Flight (1931). Ketika beliau dinaikan oleh MGM sebagai lelaki terkemuka, beliau secara tiba-tiba digantikan dengan bintang yang sedang meningkat naik Clark Gable bagi filem Laughing Sinners pada tahun 1931, dengan semua adegannya dirakam semula. MGM dan pengarah Woody Van Dyke skrin mengujinya untuk watak utama Tarzan the Ape Man tetapi Van Dyke tidak merasakan beliau cukup tinggi. [9]